Baitulmuqaddis diperkukuh selepas kota itu dirampas semula Heraclius daripada orang Parsi.[7] Patriarch Baitulmuqaddis, Sophronius memperbaiki binaan pertahannya selepas kekalahan Byzantine di Yarmuk.[8] Setakat waktu itu tidak ada percubaan oleh pihak orang Islam untuk mengepung kota itu. Namun demikian, angkatan Islam memiliki potensi untuk mengancam semua jalan masuk ke kota itu semenjak tahun 634, dan mahupun ia tidak dikelilingi, kota Baitulmuqaddis berada dalam keadaan kepungan semenjak kota-kota yang berjiranan dengannya, Pella dan Bosra ditawan Muslim. Selepas Pertempuran Yarmuk, kota itu terputus hubungan dengan wilayah-wilayah Syria yang lain dan kelihatan bersedia untuk menghadapi pengepungan yang sudah tentu akan dilaksanakan Muslim.[7] Apabila tentera al-Rasyidin sampai sahaja di bandar Jericho, Sophronius mula mengumpulkan segala macam relik termasuk True Cross, dan secara rahsia menghantar relik-relik tersebut ke kawasan pantai untuk seterusnya dihantar ke Constantinople.[8] Tentera Muslim mengepung kota Baitulmuqaddis pada bulan November 636. Pihak Muslim memutuskan untuk mengenakan pengepungan sehingga orang Byzantine kekurangan bekalan agar kota itu menyerah kalah tanpa tumpahan darah dan tidak melakukan serangan a[›] terhadap baitulmuqaddis.[9]

Walaupun perincian pengepungan tidak dicatatkan, b[›] kelihatan bahawa ia tidak melibatkan tumpahan darah.[10] Garison Byzantine tidak mengharapkan bantuan daripada kerajaan Heraclius yang baharu dikalahkan tentera Islam. Selepas pengepungan selama empat bulan, Sophronius menawar untuk menyerahkan kota dan membayar jizyah, dengan syarat khalifah datang ke Baitulmuqaddis untuk menandatangan perjanjian dan menerima penyerahan diri orang Byzantine.[11] Dikatakan bahawa apabila syarat-syarat Sophronius diketahui orang Islam, seorang daripada panglima Muslim, Syurahbil bin Hassana, mencadangkan supaya daripada menunggu khalifah datang dari Madinah, Khalid bin al-Walid seharusnya dihantar sebagai khalifah memandangkan rupa beliau mirip rupa Khalifah Umar.[12] Helah ini gagal; berkemungkinan Khalid terlalu masyhur di Syria ataupun ada penduduk Kristian Arab yang pernah pergi ke Madinah dan pernah melihat kedua-dua Khalid dan Khalifah Umar, dan masih ingat akan perbezaan antara mereka. Berikutan peristiwa ini, Patriarch Baitulmuqaddis enggan berunding dan apabila Khalid pulang dan melaporkan kegagalan misinya, Abu Ubaidah mengutus surat kepada Khalifah Umar tentang keadaan di Baitulmuqaddis dan mempelawa baginda datang ke Baitulmuqaddis untuk menerima penyerahan kalah kota.[13]

Penyerahan kalah

Khalifah Umar tiba di Palestin pada awal April 637 dan beliau mula-mula pergi ke Jabiya,[14] di mana Abu Ubaidah, Khalid dan Yazid, menunggu ketibaan beliau. Amr tinggal di Baitulmuqaddis sebagai panglima tentera al-Rasyidin.[15]

Sebuah perjanjian, disebut Perjanjian Umar, dimeterai sebaik sahaja Khalifah Umar tiba di Baitulmuqaddis. Perjanjian ini menyerahkan kota Baitulmuqaddis kepada khalifah dan menjamin hak-hak awam serta kebebasan orang Kristian untuk mengamal agama mereka sebagai balasan pembayaran jizyah. Ia ditandatnagni Khalifah Umar bagi pihak Muslim, dan disaksikan oleh Khalid, Amr, Abdul Rahman bin Auf, dan Muawiyah bin Abu Sufyan. Pada lewat April 637, Baitulmuqaddis diserahkan kepada Khalifah Umar secara rasmi,[16] dan buat pertama kalinya selepas hampir 500 tahun pemerintahan keras Romawi, orang Yahudi dibenarkan untuk tinggal dan mengamalkan agama mereka di dalam kota Baitulmuqaddis.[2]

Tercatat dalam riwayat-riwayat orang Islam bahawa pada waktu Zohor, Sophronius mempelawa Khalifah Umar untuk menunaikan solat di dalam bangunan Gereja Makan Jesus Christ yang telah dibina semula. Namun Khalifah Umar menolak pelawaan tersebut kerana khuatir pelawaan tersebut akan menggugat kedudukan Gereja sebagai tempat ibadat Kristian, dan orang Islam mungkin akan melanggar perjanjian mereka dan menjadikan gereja sebagai sebuah masjid.[9] Khalifah Umar pulang ke Madinah selepas tinggal di Baitulmuqaddis selama 10 hari.[17]